那是你拒绝的真正原因吗？

原文：https://www.readthesequences.com/Is-That-Your-True-Rejection

常有人会遇到我的一些超人类主义观点——比如超级智能和友好人工智能——这些观点和我关于人类理性的观点不同，听起来新奇、怪异，他们便会拒绝这些观点。

当问及缘由时，常常会听到这样的回答：「我为什么要相信 Yudkowsky （本文作者）说的话？他连博士学位都没有！」

偶尔，还有人听完这类理由后会在旁边补充：「哦，你应该拿个博士学位，这样别人才会听你的。」或者，这个建议可能就是那个一开始就不相信的人提供的：「等你有了博士学位再说吧。」

当然，拿博士学位有或好或坏的理由，但为此获得一个博士学位，绝不是个好理由。

人们对「超人类主义」命题确实产生负面反应的原因有很多，大多数其实是基于模式识别，而非语言思考：这个命题让他们匹配到「怪异的想法」、「科幻」、「末日邪教」或 「狂热的年轻人」。

因此，在感知的瞬间，观点就被拒绝了。如果事后有人问：「为什么拒绝？」，接下来就会进入寻找辩解的过程。但这种寻找未必能触及到「真正的原因」——我在这里说的「真正的原因」，并非指可能提供的最佳理由，而是指在拒绝产生的第一时间，就对历史事实（对观点的拒绝）起决定性作用的因素。

相反，寻找辩解时，他们可能会停留在这样一个看似合理的辩护事实上：「这个讲者没有博士学位。」

但当我谈论人类理性时，我同样也没有博士学位，为什么同样的反对意见没有出现呢？

更重要的是，即便我有博士学位，人们也不会将此视为应该相信我所有言论的决定性因素。相反，出于同样的原因，一开始的拒绝同样会发生；之后，寻找辩解的过程会终止在另一个原因上。

他们可能会说：「我为什么要相信你？你只是个有博士学位的普通人！这种人多了去了。等你成为领域内的知名学者，并在顶尖大学获得终身教职再来吧。」

但人们真的会相信哈佛教授随口说的奇谈怪论吗？当然不会。（不过，如果我真是哈佛的教授，的确会更容易引起媒体的关注。那些一开始就不相信我的记者——他们可能同样不愿意相信随便一个博士学位持有者——仍然会报道我，因为哈佛教授会相信这种奇谈怪论，这本身就成了新闻。）

如果你说的话对外行人听起来是错误的，而且不是随口念出一些装神弄鬼的科幻术语，比如「关于 N+2 维空间中的轻夸克编织」；而听者又是个外行，对你本人和你的领域内容都不熟悉；那么我推测普通人真正开始因学术资历扭转初始负面印象的信任阈值，大约在诺贝尔奖得主级别。简言之，你需要达到被视作「超凡脱俗」的学术资历。

据我所知，这大概就是 Eric Drexler 所经历的情况。他提出了纳米技术的愿景，但人们却说：「技术细节在哪里？」或者「等你拿到博士学位再说！」。于是，Eric Drexler 花了六年时间写出了技术细节，并在 Marvin Minsky 指导下获得了博士学位。《纳米系统》（Nanosystems）是一本很棒的书。然而，那些曾说过「等你有了博士学位再说」的人，是否真的改变了对分子纳米技术的看法呢？据我所知，似乎并没有。

同样，对于机器智能研究所（Machine Intelligence Research Institute，本文作者是该研究所的一名研究员）来说，似乎有一个普遍的规律：无论我们为提高可信度应该做什么，实际上做了之后，情况也没什么变化。「你们有做什么代码开发吗？我不想支持一个不开发代码的组织」 → OpenCog → 什么也没改变。「Eliezer Yudkowsky 缺乏学术背景」→ Professor Ben Goertzel 被任命为研究主任 → 什么也没改变。唯一似乎真的已经提高我们可信度的，还是一些名人和我们组织的关联，比如 Peter Thiel 资助我们，或者 Ray Kurzweil 加入董事会。

这对年轻的企业和刚刚起步的顾问来说，可能是一个重要的启示——潜在客户或投资人告诉你的拒绝理由，可能并不是决定性因素；在付出巨大努力之前，你应该仔细思考这一点。如果潜在投资人说：「如果你的销售增长能再快一点就好了！」或者潜在客户说：「看起来不错，但你们缺少了功能 X」，这可能并不是真正的拒绝理由。即使你解决了这个问题，结果也不一定会有实质性的改变。

这也是在争论中需要牢记的一点。我和 Robin Hanson 有一个共同的信条，那就是两个理性主义者不应该同意存在分歧：他们不应该对认识论上的分歧有共识，除非有什么东西错得非常离谱。

我怀疑，通常而言，如果两个理性主义者决定解决一个分歧，并且这个分歧在初次交流后仍然存在，他们应该预期到，真正的分歧根源要么很难沟通，要么很难暴露。比如：

  • 冷门，但坚实的科学理论或数学论证；

  • 冗长的推理距离；

  • 可能由具象化思维产生的一种难以言表的直觉

  • 从某个职业继承的时代思潮（这可能有充分的理由）；

  • 经验塑造的认知模式；

  • 纯粹的思维习惯；

  • 对特定结果的情感承诺；

  • 害怕承认过往错误；

  • 为了维护面子或其他个人利益而进行的深度自我欺骗。

如果所有真正的拒绝理由都能轻易摆上台面，分歧可能会非常简单地解决，以至于不会在初次交流后持续下去。

「这是我拒绝的真正原因吗？」是所有争论者在讨论中都应当问自己的问题，以便让对方更容易理解。然而，据我观察，试图直接、公开地对他人进行心理分析可能会导致交流迅速恶化。

尽管如此——「那是你拒绝的真正原因吗？」对于分歧双方来说，如果有任何建设性的方式来探讨这个子问题，谦虚地提出这个问题应该是合理的。或许规则可以是这样：你可以坦率地问：「这个简单直接的理由是你真正的拒绝吗，还是它来自于直觉 X 或者职业的时代思潮 Y？」而那些更令人难堪、排在表格下方的可能性，则应留给对方的良知，作为他们自己应当承担的责任去处理。